भारत के आईटी मंत्रालय ने एलोन मस्क के X को अपने AI चैटबॉट Grok में तत्काल तकनीकी और प्रक्रियात्मक बदलाव करने का आदेश दिया है, क्योंकि इस टूल ने महिलाओं की AI-परिवर्तित छवियों सहित अश्लील सामग्री उत्पन्न की थी। शुक्रवार को जारी आदेश में X को Grok को नग्नता, यौनकरण, यौन रूप से स्पष्ट सामग्री या अन्य गैरकानूनी सामग्री से जुड़ी सामग्री उत्पन्न करने से रोकने का निर्देश दिया गया है।

मंत्रालय ने X को अश्लील, पोर्नोग्राफिक, अशिष्ट, अभद्र, यौन रूप से स्पष्ट, बाल यौन शोषण, या भारतीय कानून के तहत अन्यथा प्रतिबंधित सामग्री की होस्टिंग या प्रसार को रोकने के लिए उठाए गए कदमों का विवरण देते हुए एक कार्रवाई-रिपोर्ट 72 घंटों में जमा करने के लिए कहा है। TechCrunch ने आदेश की समीक्षा की, जिसमें चेतावनी दी गई है कि अनुपालन करने में विफलता X के सुरक्षित बंदरगाह सुरक्षा को खतरे में डाल सकती है, जो भारतीय कानून के तहत उपयोगकर्ता द्वारा उत्पन्न सामग्री के लिए दायित्व से कानूनी प्रतिरक्षा प्रदान करती है।

यह कदम उन उपयोगकर्ताओं द्वारा उठाई गई चिंताओं के बाद उठाया गया है जिन्होंने Grok को व्यक्तियों, मुख्य रूप से महिलाओं की छवियों को बदलकर उन्हें बिकनी पहने हुए दिखाने के लिए प्रेरित करने के उदाहरण साझा किए। भारतीय सांसद प्रियंका चतुर्वेदी ने इन उदाहरणों को देखने के बाद एक औपचारिक शिकायत दर्ज की।

मस्क की AI कंपनी xAI द्वारा विकसित Grok, प्रश्नों के उत्तर देने और टेक्स्ट उत्पन्न करने के लिए डिज़ाइन किया गया एक बड़ा भाषा मॉडल है। बड़े भाषा मॉडल (LLM) को टेक्स्ट और कोड के विशाल डेटासेट पर प्रशिक्षित किया जाता है, जिससे वे अनुवाद, सारांश और सामग्री निर्माण जैसे कार्यों को करने में सक्षम होते हैं। हालाँकि, LLM के साथ एक आम चुनौती यह सुनिश्चित करना है कि वे हानिकारक या अनुचित सामग्री उत्पन्न न करें। इसमें अक्सर सामग्री फ़िल्टर और मॉडरेशन नीतियों जैसे सुरक्षा उपायों को लागू करना शामिल होता है।

भारत सरकार के आदेश में AI-जनित सामग्री की बढ़ती जांच और ऐसी तकनीक की मेजबानी करने वाले प्लेटफार्मों की जिम्मेदारियों पर प्रकाश डाला गया है। आदेश में संदर्भित "सुरक्षित बंदरगाह" सुरक्षा, X जैसे प्लेटफार्मों के लिए महत्वपूर्ण है, क्योंकि वे उपयोगकर्ताओं द्वारा पोस्ट की गई सामग्री के लिए कानूनी दायित्व से उन्हें बचाते हैं, बशर्ते वे कुछ दिशानिर्देशों का पालन करें और अवैध सामग्री के बारे में सूचित किए जाने पर कार्रवाई करें। इन सुरक्षाओं को खोने से X मुकदमों के लिए उजागर हो सकता है और भारत में इसकी परिचालन लागत में काफी वृद्धि हो सकती है।

X ने अभी तक सार्वजनिक रूप से आदेश पर कोई टिप्पणी नहीं की है। कंपनी की प्रतिक्रिया और भारतीय सरकार के निर्देशों का पालन करने के लिए उठाए गए कदमों को अन्य देशों और तकनीकी कंपनियों द्वारा बारीकी से देखा जाएगा जो AI सामग्री मॉडरेशन से संबंधित समान मुद्दों से जूझ रहे हैं। यह घटना AI के नैतिक निहितार्थों और इसके उपयोग को नियंत्रित करने के लिए मजबूत नियामक ढांचे की आवश्यकता के बारे में चल रही बहस को रेखांकित करती है। इस स्थिति का परिणाम भारत में AI प्लेटफार्मों को विनियमित करने के तरीके के लिए एक मिसाल कायम कर सकता है और संभावित रूप से वैश्विक मानकों को प्रभावित कर सकता है।